NVIDIA H200 SXM 141 GB

NVIDIA H200 SXM 141 GB — 141 Гб HBM3e, 16 896 ядер, GPI 67,4

Загружаемся...

Оценка производительности

GPU от NVIDIA на процессоре GH100. NVIDIA H200 SXM 141 GB содержит 141 Гб видеопамяти HBM3e. Шина 6144 бит, пропускная способность 4.89 TB/s. NVIDIA H200 SXM 141 GB имеет 16896 CUDA ядер. 5 nm техпроцесс в TSMC.

A100 A100
H200 H200
MI325X MI325X

NVIDIA H200 SXM 141 GB

67,4

NVIDIA H200 SXM 141 GB

67,4

Память

Объем памяти

141 GB

Тип памяти

Пропускная способность памяти

4.89 TB/s

Ширина шины памяти

6 144 бит
8 192 бит
(AMD Radeon Instinct MI325X)

ML-производительность

FP16 (half)

267,6 TFLOPS

BF16

Нет TFLOPS
311,84 TFLOPS
(NVIDIA A800 SXM4 80 GB)

TF32

Нет

Вычислительная мощность

FP32 (float)

66,91 TFLOPS

FP64 (double)

33,45 TFLOPS
1 166 000,0 TFLOPS
(XFX XFX QICKSILVER MagAir RX 7800 XT)

CUDA ядра

RT ядра

Архитектура и совместимость

Архитектура GPU

SM (Streaming Multiprocessor)

PCIe версия

PCIe 5.0 x16

Программная поддержка ML

CUDA версия

Частоты и производительность

Base Clock

1 500

Boost Clock

Memory Clock

1 593

Энергопотребление

Рекомендуемый БП

Разъём питания

8-pin EPS

TDP/TGP

700 W
unknown
(NVIDIA CMP 70HX)

Рендеринг

Текстурные блоки (TMU)

L2 Cache

50 MB

Бенчмарки

MLPerf, llama2-70b-99.9 (UNSET)

3 534 tokens/s
1 983 tokens/s
(AMD Radeon Instinct MI300X)

MLPerf, llama2-70b-99.9 (fp16)

3 553 tokens/s
1 740 tokens/s
(AMD Radeon Instinct MI300X)

MLPerf, llama2-70b-99.9 (fp8)

2 444 tokens/s
2 106 tokens/s
(NVIDIA H100 SXM5 94 GB)

MLPerf, llama3.1-405b (fp16)

40.8 tokens/s
34.8 tokens/s
(AMD Radeon Instinct MI300X)

MLPerf, llama3.1-405b (fp8)

25.3 tokens/s

MLPerf, llama3.1-8b (fp8)

5 161 tokens/s

MLPerf, deepseek-r1 (fp8)

1 113 tokens/s

MLPerf, mixtral-8x7b (fp8)

7 132 tokens/s
6 975 tokens/s
(AMD Radeon Instinct MI325X)

Дополнительно

Слоты

SXM Module
SXM Module
(NVIDIA B300)

Дата выпуска

18 ноября 2024 г.
12 марта 2026 г.
(Intel Arc B770)

Дисплейные порты

No outputs
Portable Device Dependent
(NVIDIA GeForce RTX 5090 Mobile)

Часто задаваемые вопросы

Для каких задач подходит NVIDIA H200 SXM 141 GB?

Видеокарта NVIDIA H200 SXM 141 GB предназначена для высокопроизводительных вычислений, машинного обучения и искусственного интеллекта. Она отлично подходит для задач, требующих обработки больших объемов данных и высокой пропускной способности, таких как тренировка глубоких нейронных сетей, моделирование и анализ больших датасетов.

С какими конкурентами сравнить и чем отличается эта видеокарта?

Например, можно сравнить NVIDIA H200 SXM 141 GB с NVIDIA A100 80GB. H200 отличается более высокой пропускной способностью и большей количеством ядер, что делает его более подходящим для сложных вычислительных задач. Однако A100 может быть более экономически эффективным решением для менее интенсивных задач, особенно если речь идет о более узкой специализации.

Достаточно ли питания и охлаждения для этой карты?

Видеокарта требует мощности 700 Вт, что является высоким уровнем потребления энергии. Для обеспечения стабильной работы рекомендуется использовать блок питания не менее 1000 Вт с высокой эффективностью. В отношении охлаждения, видеокарта поддерживает жидкостное охлаждение, но также хорошо функционирует с качественным воздушным охлаждением. Убедитесь, что ваш корпус имеет достаточное количество вентиляционных отверстий для эффективного отвода тепла.

Стоит ли брать эту карту в 2025-2026 году?

Конечно, стоит рассмотреть приобретение NVIDIA H200 SXM 141 GB, особенно если вы планируете работать с задачами высокой сложности в области машинного обучения и AI. К 2025-2026 годам технологии будут развиваться, но H200 будет оставаться актуальным решением для многих задач. Однако важно учитывать, что новые поколения видеокарт могут предложить улучшенные характеристики и более доступные цены, поэтому стоит следить за рынком и новыми анонсами.

Рекомендации

Эта видеокарта идеально подходит для обработки больших объемов данных в машинном обучении и AI, а также для высокопроизводительного рендеринга. Её мощные характеристики делают её незаменимой для задач, требующих обработки больших наборов данных и высокой пропускной способности.

Арендовать дешевле, чем покупать